LLM应用全流程开发课件

Appearance

DeepSeek与开源UI衔接：如何加载本地/云端模型 ​

学习目标 ​

  • 掌握DeepSeek模型在开源UI界面中的接入方法
  • 理解本地部署与云端API调用的区别与选择标准
  • 学会配置和优化DeepSeek在UI界面中的性能表现
  • 解决常见的模型接入问题

DeepSeek模型接入概述 ​

DeepSeek作为一款高性能的开源大语言模型，可以通过多种方式与开源UI界面进行衔接。根据不同的应用场景和资源条件，我们可以选择通过本地部署模型或调用云端API来实现与UI界面的集成。

接入方式对比 ​

接入方式优势劣势适用场景
本地模型数据隐私保障、无需联网、无额外费用需要高性能硬件、部署复杂企业内网、对隐私要求高
云端API无需本地算力、维护简单、随时可用需网络连接、可能有费用个人使用、开发测试、算力受限

LobeChat接入DeepSeek模型 ​

LobeChat支持通过多种方式接入DeepSeek模型，包括本地部署和云端API。

通过API接入 ​

  1. 配置API端点：

    在LobeChat设置界面中，导航至"模型设置"，然后添加自定义模型：

    名称: DeepSeek-Chat
基础URL: https://api.deepseek.com/v1 (或您的API服务器地址)
API密钥: 您的DeepSeek API密钥
模型: deepseek-chat

  2. 调整模型参数：

    根据您的需求配置模型参数，如温度(temperature)、最大tokens等：

    temperature: 0.7
top_p: 0.9
max_tokens: 2000

  3. 测试连接：

    保存配置后，在聊天界面选择刚刚添加的DeepSeek模型，发送测试消息确认连接是否正常。

通过本地模型接入 ​

  1. 准备工作：

    • 部署本地DeepSeek模型（通过Ollama或其他服务）
    • 确保本地模型服务已启动并可访问

  2. 配置本地API：

    如果您使用Ollama部署DeepSeek：

    名称: DeepSeek-Local
基础URL: http://localhost:11434/v1
模型: deepseek:latest (根据您的实际Ollama模型名称)

  3. 高级设置：

    配置本地模型的并发限制、上下文大小等参数以优化性能。

OpenWebUI接入DeepSeek模型 ​

OpenWebUI与Ollama的深度集成使得接入DeepSeek模型变得相对简单。

通过Ollama接入本地模型 ​

  1. 在Ollama中拉取DeepSeek模型：

    bash
    ollama pull deepseek-coder:latest
# 或
ollama pull deepseek-chat:latest

  2. 在OpenWebUI中使用：

    • 启动OpenWebUI后，在模型列表中应当自动显示已拉取的DeepSeek模型
    • 点击模型卡片即可使用该模型进行对话

  3. 自定义模型参数：

    OpenWebUI允许您调整模型参数，如温度、上下文大小等：

    temperature: 0.8
context_length: 4096
top_k: 40
top_p: 0.9

通过API接入 ​

OpenWebUI也支持通过OpenAI兼容API接入DeepSeek：

  1. 添加新的模型端点：

    在设置页面中的"连接"选项卡，添加新的OpenAI兼容端点：

    名称: DeepSeek API
基础URL: https://api.deepseek.com/v1
API密钥: 您的DeepSeek API密钥

  2. 配置模型列表：

    添加DeepSeek模型到您的模型列表：

    模型ID: deepseek-chat
显示名称: DeepSeek Chat
上下文长度: 4096

实战案例：构建私有知识库问答系统 ​

下面我们将演示如何使用LobeChat或OpenWebUI配合DeepSeek模型构建一个私有知识库问答系统。

在LobeChat中实现 ​

  1. 创建知识库：

    • 在LobeChat中创建新的知识库
    • 上传公司文档或个人资料
    • 选择DeepSeek作为嵌入和处理模型

  2. 创建专用助手：

    • 创建一个新的AI助手
    • 设置专业领域和角色说明
    • 关联刚才创建的知识库
    • 选择DeepSeek模型作为对话模型

  3. 测试问答：

    • 提问与知识库相关的问题
    • 查看模型如何结合知识库内容回答

在OpenWebUI中实现 ​

  1. 准备知识库：

    • 在OpenWebUI中创建新的Collection(集合)
    • 上传文档或添加网页URL
    • 等待索引完成

  2. 配置RAG设置：

    • 选择DeepSeek模型作为对话模型
    • 调整检索参数（文档数量、相似度阈值等）

  3. 启动知识库对话：

    • 在聊天界面选择相应知识库
    • 开始提问相关问题

性能优化与常见问题 ​

性能优化 ​

  1. 模型量化：使用量化版本的DeepSeek模型减少资源占用
  2. 上下文长度调整：根据实际需求调整上下文长度以平衡性能和质量
  3. 缓存设置：启用UI界面的缓存功能减少重复计算
  4. 并发控制：根据硬件性能调整并发请求数

常见问题与解决方案 ​

  1. 模型加载失败：

    • 检查硬件资源是否充足
    • 确认模型权重文件是否完整
    • 尝试使用较小的量化版本

  2. 响应速度慢：

    • 降低模型参数（如temperature、top_p等）
    • 使用更高性能的硬件或降低模型规模
    • 限制最大输出tokens数量

  3. API连接错误：

    • 验证API密钥是否正确
    • 检查网络连接和防火墙设置
    • 确认API端点URL格式正确

  4. 知识库检索问题：

    • 重新建立知识库索引
    • 调整相似度阈值
    • 检查文档是否正确解析

小结 ​

在本节中，我们学习了如何将DeepSeek模型与LobeChat和OpenWebUI这两款流行的开源UI界面进行衔接，实现了从简单聊天到复杂知识库问答的多种应用场景。无论是通过本地部署还是云端API调用，DeepSeek模型都能与这些界面良好配合，提供高质量的对话体验。

对于企业用户，本地部署提供了更好的数据隐私保障；而对于个人用户或开发测试，云端API则提供了更便捷的使用方式。根据实际需求选择合适的接入方式，并进行必要的性能优化，能够最大化发挥DeepSeek模型的能力。

在下一节中，我们将探索如何使用Cherry-Studio等桌面端界面方案，为DeepSeek模型提供更加多样化的使用体验。